Trong một thời gian ngắn từ tháng 7 năm 1960 đến tháng 1 năm 1963, ông kiêm thêm chức vụ Chủ nhiệm Ủy ban Khoa học Nhà nước.[74] Năm 1978, ông thôi chức Bí thư quân ủy Trung ương, Lê Duẩn trở thành Bí thư và Văn Tiến Dũng làm Phó Bí thư Quân ủy Trung ương.

Đất nước mới vừa thống nhất ngày 30 tháng 4 năm 1975, đã bị quân Khmer Đỏ vượt biên giới Tây Nam tiến vào Việt Nam và xung đột với Việt Nam trong một thời gian dài, Khmer Đỏ được hậu thuẫn từ Trung Quốc và sau đó có Thái Lan một phần gây xung đột biên giới với Việt Nam từ năm 1975 mãi đến năm 1990 mới chấm dứt, đỉnh điểm là cuộc Chiến tranh biên giới Việt-Trung năm 1979. Tại thời điểm này ông giữ cương vị Phó Thủ tướng Chính phủ kiêm Bộ trưởng Bộ Quốc phòng. Sau khi cuộc chiến tranh ở biên giới phía Bắc kết thúc, không có thay đổi lãnh thổ đáng kể giữa Việt Nam và Trung Quốc.